Trương Hiến Trung lúc nhỏ gia cảnh nghèo khó, đã được học chữ, lớn lên tham gia quân đội, từng làm bộ khoái Lính Gác Cửa Nha Môn của phủ Duyên An, về sau bị cách chức, nên tòng quân ở trấn Duyên Tùy. Vì phạm pháp nên bị xử chém, chủ tướng(陳洪範) Trần Hồng Phạm thấy tướng mạo của ông lạ lùng Sau Này Không Làm Vua Thì Cũng Là Quý Ngôi Vương Hầu, bèn xin quan Tổng binh Vương Uy, thay bằng phạt đòn, đánh ông 100 côn. Từ đó Trương Hiến Trung quanh quẩn ở trong làng.

Cuối những năm Thiên Khải (1620 – 1627), tỉnh Thiểm Tây đã chịu nhiều tai ương. Do hạn hán kéo dài, mất mùa liên tiếp, người Phủ Cốc là Vương Gia Dận chiếm cứ núi Hoàng Long, hiệu triệu dân đói ở Thiểm Bắc khởi nghĩa; tiếp theo là Vương Tả Quải ở Nghi Xuyên, Cao Nghênh Tường ở An Trại, Trương Tồn Mạnh ở Lạc Xuyên, Vương Tự Dụng ở Duyên Xuyên, Vương Đại Lương ở Hán Nam… nối nhau hưởng ứng.

Năm Sùng Trinh thứ 3 (1630), Trương Hiến Trung tại quê nhà tụ tập 18 trại nông dân, tổ chức thành đội ngũ, hưởng ứng cuộc khởi nghĩa của Vương Gia Dận, tự đặt hiệu là "Bát đại vương". Vì ông người cao gầy mà mặt vàng nhỏ, râu dài 1 thước 6 tấc, tráng kiện, mạnh mẽ, quả cảm, hào hiệp, trong quân gọi ông là "hoàng hổ". Ban đầu ông chỉ huy 1 đội, sau trở thành chỉ huy của 1 cánh quân. Bộ chúng của ông trở thành doanh binh mạnh nhất trong 36 doanh mà Vương Tự Dụng làm minh chủ. Trương Hiến Trung theo nghĩa quân chiến đấu ở Thiểm Tây, Sơn Tây, Hà Nam, An Huy, Hồ Bắc, Tứ Xuyên…, liên tiếp lập chiến công.